माइक्रोसॉफ्ट और पूर्व गूगल सीईओ सर्पशि लैब्स का समर्थन करते हैं ताकि AI सिस्टम और मानव इरादों के बीच संरेखण समस्या को हल किया जा सके। सर्पशि लैब्स एक ऐसा सॉफ्टवेयर बनाने पर ध्यान केंद्रित कर रहा है जो सुनिश्चित करता है कि आर्टिफिशियल इंटेलिजेंस मानव इरादों के अनुसार कार्य करे। यह स्टार्टअप गैर-लाभकारी AI अनुसंधान प्रयोगशाला EleutherAI से उत्पन्न हुआ है, जो भाषाई मॉडल की चुनौतियों को हल करने पर ध्यान केंद्रित करता है। सर्पशि लैब्स का दृष्टिकोण बड़े भाषा मॉडल का मूल्यांकन करके AI सिस्टम को संवेदनशील विषयों पर चर्चा करने से बचने में मदद करता है।

अनुसंधान से पता चला है कि बड़े पूर्व-प्रशिक्षित भाषा मॉडल (LLM), जैसे GPT-3, RAIN विधि के माध्यम से आत्म-सुधार करने में सक्षम हैं, मानव आवश्यकताओं को पूरा करने के लिए, अतिरिक्त डेटा और माइक्रो-ट्यूनिंग की आवश्यकता नहीं है। RAIN विधि विभिन्न भाषा उत्पादन कार्यों के लिए व्यापक रूप से लागू होती है, बिना किसी अतिरिक्त मॉडल या डेटा भंडारण के, और न ही लेबल किए गए डेटा या प्रशिक्षण पर निर्भर करती है। RAIN LLM के प्रदर्शन को आत्म-मूल्यांकन के माध्यम से बढ़ाता है, शत्रुतापूर्ण हमलों की सफलता दर को घटाता है, और AI द्वारा अधिक समन्वयित और सुरक्षित प्रतिक्रियाएँ उत्पन्न करता है। यह अध्ययन RAIN को एक तकनीक के रूप में पेश करता है जो LLM को मानव प्राथमिकताओं के अनुरूप समायोजित करने में सक्षम बनाता है.